Beliau dilahirkan di Bedford-Stuyvesant, Brooklyn, New York dan merupakan anak perempuan kepada Ravi Shankar, iaitu seorang pemain sitar yang berketurunan India. Ibunya pula adalah seorang pengeluar konsert dari Amerika yang bernama Sue Jones. Selepas perpisahan ibubapanya pada tahun 1986, beliau menghabiskan masa kanak-kanak dengan ibunya di Fort Worth, pinggir Grapevine, Texas. Beliau telah memasuki Colleyville Middle School dan Grapevine High School sebelum berpindah ke Booker T. Washington High School for the Performing and Visual Arts di Dallas. Semasa di sekolah menengah, beliau menyanyi untuk kior sekolah, menubuhkan sebuah kumpulan muzik dan bermain alto saxophone. Semasa berumur 16 tahun, beliau mendapat keizinan daripada ibu bapa untuk menukar namanya secara rasmi kepada Norah Jones.

Norah sentiasa mempunyai tarikan kepada muzik Bill Evans dan Billie Holiday di antara 'lagu-lagu lama' yang lain. Beliau pernah berkata, "Ibu saya mempunyai lapan set album Billie Holiday, saya mengambil satu cakera yang saya suka dan memainkannya berulang-ulang kali."

Beliau mula menyanyi di dalam koir gereja dan mengambil kelas bermain piano sebagai seorang kanak-kanak. Beliau masih pergi ke gereja. Beliau menganggap dirinya mempunyai semangat kerohanian dan menghormati ritual gereja tetapi tidak menganggap dirinya sebagai seorang yang alim.

Beliau menghadiri Interlochen Center for the Arts semasa musim panas. Ketika di sekolah tinggi, beliau memenangi DownBeat Student Music Awards untuk kategori Vokalis Jazz Terbaik (dua kali, iaitu pada tahun 1996 dan 1997) dan Komposisi Asal Terbaik (1996).

Norah menghadiri University of North Texas (UNT), di mana beliau mengambil jurusan dalam bidang piano jazz dan menyanyi dengan Penyanyi Jazz UNT. Pada masa ini, beliau terpaksa bertemu dengan bakal kolaborator iaitu Jesse Harris. Beliau menumpang semasa sebuah kumpulan muzik sedang bermain di universiti di mana ahlinya adalah rakan kepada Jesse. Jesse sedang merentas desa dan berjalan dengan rakan dan bakal ahli Little Willies iaitu Richard Julian yang akhirnya berhenti untuk melihat permainan kumpulan muzik. Selepas mengadakan pertemuan dengan Norah, Jesse mula menghantar beberapa lembaran melodi lagu-lagu beliau. Pada tahun 1999, beliau meninggalkan New York. Kurang daripada satu tahun kemudian, beliau memulakan sebuah kumpulan muzik dengan Jesse yang akhirnya membuatkan beliau terkenal.